When Do Multi-Agent Systems Help? An Information Bottleneck Perspective
多智能体系统何时有效?信息瓶颈视角
🧭 多智能体协作 · 信息瓶颈优化
Texas A&M University · Brookhaven National Laboratory
用信息瓶颈理论揭示多智能体增益源于上下文压缩与通信损失间的权衡,弱模型更难从冗余上下文中获益
📌 工作参考价值(4 点)
- 在设计电商搜索推荐的多智能体架构(如多个 LLM Agent 协作进行意图解析、Query 改写、商品召回)时,需精心控制 Agent 间传递的信息粒度:压缩冗余上下文可大幅降低 token 消耗与延迟,但必须确保传递的信息足够任务要求,避免关键信息丢失。
- 对于能力较弱的模型(如小参数量的生成式推荐模型),采用多智能体拆分任务并传递压缩后的关键信息,效果可能显著优于单智能体全量上下文;而对于强模型,全量上下文可能已足够,多智能体引入的压缩反而可能损害性能,需针对模型规模做适配。
- 可将多智能体通信视为一个信息瓶颈优化问题:引入一个可控的压缩率参数(类似 β),在工程实现中通过调整摘要长度、关键词提取等策略来寻找最优的压缩比,平衡效率与效果。
- 在推荐系统中使用 Agent 协作生成推荐理由或推送文案时,每个 Agent 只向上游发送必要的结构化信息(如商品核心卖点、用户偏好标签),而不是冗长的自然语言描述,可以提升整体系统的吞吐量。